回帰分析 - 03

切片,\(\Large \displaystyle \hat{a_0} \),の推定

次に,\(\Large \displaystyle \hat{a_0} \),の推定です.まずは前頁から,

\(\Large \displaystyle \sum_{i=1}^{n} \hat{a_0} + \sum_{i=1}^{n} \hat{a_1}X_i = \sum_{i=1}^{n} Y_i \)

\(\Large \displaystyle \sum_{i=1}^{n} \hat{a_0} X_i + \sum_{i=1}^{n} \hat{a_1}X_i^2 =\sum_{i=1}^{n} X_i Y_i \)

から,

\(\Large \displaystyle n \hat{a_0} + \hat{a_1} \sum_{i=1}^{n} X_i = \sum_{i=1}^{n} Y_i \)

\(\Large \displaystyle \hat{a_0} \sum_{i=1}^{n} X_i + \hat{a_1} \sum_{i=1}^{n} X_i^2 =\sum_{i=1}^{n} X_i Y_i \)

として,\(\Large \displaystyle \hat{a_1} \),を消去しましょう.

\(\Large \displaystyle n \hat{a_0} \sum_{i=1}^{n} X_i^2+ \hat{a_1} \sum_{i=1}^{n} X_i \sum_{i=1}^{n} X_i^2= \sum_{i=1}^{n} X_i^2 \sum_{i=1}^{n} Y_i \)

\(\Large \displaystyle \hat{a_0} \sum_{i=1}^{n} X_i \sum_{i=1}^{n} X_i + \hat{a_1} \sum_{i=1}^{n} X_i \sum_{i=1}^{n} X_i^2 =\sum_{i=1}^{n} X_i \sum_{i=1}^{n} X_i Y_i \)

両辺を引けば,

\(\Large \displaystyle \hat{a_0} \left\{ \left(\sum_{i=1}^{n} X_i \right)^2 - n \sum_{i=1}^{n} X_i^2 \right\} = \sum_{i=1}^{n} X_i \sum_{i=1}^{n} X_i Y_i - \sum_{i=1}^{n} X_i^2 \sum_{i=1}^{n} Y_i \)

\(\Large \displaystyle \hat{a_0} = \frac{\sum_{i=1}^{n} X_i^2 \sum_{i=1}^{n} Y_i - \sum_{i=1}^{n} X_i \sum_{i=1}^{n} X_i Y_i }{ n \sum_{i=1}^{n} X_i^2 - \left(\sum_{i=1}^{n} X_i \right)^2 } \)

と表すことができます.ただ,ちょっとややこしいので少し整理してみましょう.

\(\Large \displaystyle \hat{a_0} = \frac{ \bar{Y} \sum_{i=1}^{n} X_i^2 - \bar{X} \sum_{i=1}^{n} X_i Y_i }{ \sum_{i=1}^{n} X_i^2 - n \bar{X}^2} \)

ここで分子にちょっと呼ぶなものを加えて(トータル0になるので問題なし)

\(\Large \begin{eqnarray} \displaystyle \hat{a_0} &=& \frac{ \bar{Y} \sum_{i=1}^{n} X_i^2 - \bar{X} \sum_{i=1}^{n} X_i Y_i + n \bar{X}^2 \bar{Y} - n \bar{X}^2 \bar{Y}}{ \sum_{i=1}^{n} X_i^2 - n \bar{X}^2} \\
&=& \frac{ \bar{Y} \sum_{i=1}^{n} X_i^2 - n \bar{X}^2 \bar{Y} - \left( \bar{X} \sum_{i=1}^{n} X_i Y_i - n \bar{X}^2 \bar{Y} \right) }{ \sum_{i=1}^{n} X_i^2 - n \bar{X}^2} \\
&=& \frac{ \bar{Y} \left( \sum_{i=1}^{n} X_i^2 - n \bar{X}^2 \right) - \bar{X} \left( \sum_{i=1}^{n} X_i Y_i - n \bar{X} \bar{Y} \right) }{ \sum_{i=1}^{n} X_i^2 - n \bar{X}^2} \\
\end{eqnarray} \)

分子第一項の括弧は分母と同じなので,

\(\Large \color{red}{\displaystyle \hat{a_0} = \bar{Y} - \frac{ \left( \displaystyle \sum_{i=1}^{n} X_i Y_i - n \bar{X} \bar{Y} \right) }{ \displaystyle \sum_{i=1}^{n} X_i^2 - n \bar{X}^2} \bar{X}} \)

となります.ここで,,\(\Large \hat{a_1} \)は,

\(\Large \displaystyle \hat{a_1} = \frac{\sum_{i=1}^{n} X_i Y_i - n \bar{X} \bar{Y}}{\sum_{i=1}^{n} X_i^2 - n \bar{X}^2} \)

となりますので,右辺第二項の分数と一致するので,

\(\Large \color{red}{\displaystyle \hat{a_0} = \bar{Y} - \hat{a_1} \bar{X}} \)

となります.これは,前ページにあるように,

\(\Large \displaystyle \sum_{i=1}^{n} \left( Y_i - \hat{a_0} - \hat{a_1}X_i \right) =0 \)

と同じことを示します.

 

次ページに,実際に数値を入れて確認してみましょう.

l t r